Ông sinh năm 1919 trong một gia đình nghèo tại thôn Nguyên Kinh, tổng Cao Mại, phủ Kiến Xương (nay thuộc xã Minh Hưng, huyện Kiến Xương), tỉnh Thái Bình.

Do gia cảnh nghèo túng, ông từ nhỏ đã bắt đầu đi làm kiếm sống. Năm 16 tuổi, ông rời gia đình đi làm nghề in ấn ở phủ lị. Nơi ông làm thuê chính là một cơ sở ấn loát của Xứ ủy Bắc Kỳ tại Thái Bình, vì vậy, ông sớm có sự tiếp xúc và tuyên truyền từ những người Cộng sản, bắt đầu hoạt động.

Năm 1939, ông chuyển lên Hà Nội hoạt động từ năm 1939, phụ trách Đoàn Thanh niên Phản đế liên tỉnh, tham gia Thường vụ Thành ủy Hà Nội.

Năm 1941, ông bị chính quyền thực dân Pháp bắt và đày đi Sơn La. Năm 1944, ông vượt ngục, trở về Hà Nội, tham gia Thường vụ Xứ ủy Bắc Kỳ. Từ tháng 2 năm 1945, ông kiêm Bí thư Thành ủy Hà Nội, phụ trách khu an toàn của Đảng trong vùng Hà Nội - Hà Đông - Sơn Tây. Ông còn làm biên tập báo Cứu quốc, phụ trách báo Hồn nước.